Ингредиенты:

1. Python
2. NLTK, точнее та часть, которая лежит в nltk.tag
3. Набор предложений с ручной морфологической разметкой слов собственного производства, примерно 2,2 миллиона слов.
( Простой способ получить точность в 97%... )

Еще одна сеточная модель для char-based language modeling.
Для произвольной цепочки символов пытаемся определить, к какой части речи это слово относится.
( Read more... )

Большое обновление всех компонентов русского синтаксического парсера (http://solarix.ru/parser.shtml):
( Read more... )

Выложил на сайте последнюю сборку парсера и part-of-speech tagger'а с самой актуальной русской словарной базой: www.solarix.ru/for_developers/download/win/parser-ru-Win64.7z (80 Мб ( Read more... )

Четверо суток продолжался пересчет новой модели русской частеречной разметки с найденными в ходе random search'а оптимальными параметрами регуляризации L1=0.1 L2=0.5

Новая версия: ошибаемость=1.08%  размер=17,195,012 байта
Старая версия:  ошибаемость=1.11%  размер=76,889,132 байта ( Read more... )

В этом цикле обновления парсера и POS Tagger'а я решил немного поиграться параметрами оптимизатора, попробовать выжать парочку сотых процента в точности.
( Read more... )

Новый, расширенный русский лексикон.
Доработанная русская морфологическая модель.
Вероятностные модели обучены но новой версии эталонного корпуса.
Подключена новая модель вероятностного русского лемматизатора, который учитывает контекст слова.

Страница с описанием с ссылкой на скачивание: http://www.solarix.ru/parser.shtmlСейчас этот релиз парсера ( Read more... )

(предыстория тут http://kelijah.livejournal.com/177045.html)

Новый результат - ошибаемость частеречной разметки русского текста упала до:

Tag error rate=3,3119224650003%

И это уже очень неплохо.

( Read more... )

Выполнялась частеречная разметка русского текста с помощью RNNSharp.

В обучающем корпусе имеется примерно 130 разных тегов, то есть детализация классов слов достаточно подробная, а не просто существительное/прилагательное/глагол/...

В качестве признаков слова использовались только word2vector представления слов размером 128, полученные с ( Read more... )

1. С помощью утилиты Txt2VecConsole (см. https://github.com/zhongkaifu/Txt2Vec) получаю векторные представления слов. В целом эта утилита является портом на C# утилиты word2vec, каких-то особых отличий в результатах я не видел. Хотя результаты в мелочах все-таки отличаются на одинаковом корпусе при одинаковых параметрах. Корпус - примерно 6 Гб ( Read more... )